ill posed

adj. [数学]不适定的/病态的(问题)